专栏：AI 与大模型工程
-
LLM 可观测性深度专题:Langfuse / Phoenix / OpenLLMetry
LLM 可观测性深度专题:Langfuse / Phoenix / OpenLLMetry
-
混合检索深度专题:Sparse+Dense+RRF 全栈实战
|
-
文档分块策略深度专题 — 字符/语义/递归/LLM 全景实战
文档分块策略深度专题 — 字符/语义/递归/LLM 全景实战
-
向量库选型深度专题:Faiss/Milvus/Qdrant/Weaviate/Chroma/pgvector
向量库选型深度专题:Faiss/Milvus/Qdrant/Weaviate/Chroma/pgvector
-
2.5.3 DPO / PPO / GRPO 偏好对齐对比
三大偏好对齐算法实战对比 —— DPO / PPO / GRPO 的原理、数据需求、显存、稳定性矩阵
-
2.5.2 LoRA / QLoRA / 全参数微调选型
参数高效微调三大范式实战对比 —— LoRA / QLoRA / 全参数微调的显存、速度、效果矩阵
-
2.5.1 微调数据准备 · 标注 / 清洗 / 增强
微调 LLM 前 80% 的工作都在准备数据 —— Alpaca / Self-Instruct / Evol-Instruct 三大范式 + 完整数据 pipeline
-
2.2.3 Claude Agent SDK vs LangChain vs AutoGen 真实对比
5 大 Agent 框架的真实生产对比 —— 抽象层级、代码量、生产稳定性、生态完整度
-
2.2.2 Tool Use 协议 · Function Calling / Anthropic Tool / MCP
大模型如何调用外部工具?三大协议(Function Calling / Anthropic Tool / MCP)的实战对比与选型
-
2.2.1 Agent 四大模式深度专题 — ReAct / Plan-and-Execute / ReWOO / Reflexion
2.2.1 Agent 四大模式深度专题 — ReAct / Plan-and-Execute / ReWOO / Reflexion
-
2.1.4 模型蒸馏 · Knowledge Distillation 能力迁移
大模型能力向小模型迁移的工程化范式 —— Logits / Feature / Response / Progressive 蒸馏全栈对比
-
2.1.3 LLM 服务化 · LiteLLM / OneAPI / OpenRouter / LangServe 对比
LLM API 服务化框架实战对比 —— 多模型路由 / 限速 / 重试 / 计费 / 监控的工程化能力矩阵
-
2.1.2 闭源 API 选型矩阵 · GPT-4o / Claude / Gemini / 国产
全球主流闭源 LLM API 选型矩阵 —— 价格、上下文、速度、能力、合规五维横评
-
2.1.1 LLM 部署 · vLLM / TGI / TensorRT-LLM 对比
vLLM / TGI / TensorRT-LLM 三大主流 LLM 推理框架选型对比与生产实践。
-
Prompt 实验台与评估方法深度专题
系统性拆解 Prompt 实验台架构、A/B 测试设计、离线 Golden Set、LLM-as-Judge 偏差校正、在线 Interleaving 与 7 大踩坑,带 35+ 处可运行代码与 4 个完整实战案例。
-
2.6.1 向量检索原理 · IVF / HNSW / PQ / ScaNN
RAG 时代必修,从暴力检索到 ANN 算法的工程实践。
-
2.4.2 高级推理 · CoT / ToT / ReAct 范式
让 LLM 学会"想",不是直接答。
-
2.4.1 Prompt 工程基础 · 结构化模板与 Few-Shot
Prompt 是 LLM 应用的代码,需要版本控制 + 测试。
-
2.3.1 Embedding 选型 · OpenAI / Cohere / BGE / M3E / E5 全景横评
从原理到代码,Embedding 模型选型决定 RAG 召回率天花板,8 节拆解闭源/开源/代码/多模态阵营与 4 个真实案例。